Entropie sofique d'après Lewis Bowen, David Kerr et Hanfeng Li: Séminaire Bourbaki du 16 janvier 2016

International audienceThe entropy in dynamical systems was introduced by A. Kolmogorov. Initially dedicated to iterations of one finite measure preserving transformation, the notion was gradually generalized so as to encompass amenable group actions and topological actions. L. Bowen (2008) succeeded in breaking the non-amenable frontier by introducing the sofic entropy. This invariant provides the same services as the classical entropy for the measured actions of the sofic groups (a class which contains the residually finite groups). In 2010, D. Kerr et H. Li established a topological version together with a variational principle.L'entropie, en systèmes dynamiques, fut introduite par A. Kolmogorov. Initialement focalisée sur les itérations d'une transformation préservant une mesure finie, la notion fut peu à peu généralisée, jusqu'à embrasser les actions des groupes moyen-nables ainsi que les actions topologiques. L. Bowen (2008) parvint à franchir la barrière du non moyennable en introduisant l'entropie sofique. Cet invariant rend les mêmes services que l'entropie classique pour les actions mesurées des groupes sofiques (une classe qui contient les groupes résiduellement finis). En 2010, D. Kerr et H. Li mirent au point une version topologique et un principe variationnel

Valeurs propres des automates cellulaires

On s'intéresse dans ce travail aux automates cellulaires unidimensionnels qui ont été largement étudiés mais où il reste beaucoup à faire. La théorie spectrale des automates cellulaires a notamment été peu abordée à l'exception de quelques résultats indirects. On cherche a mieux comprendre les cadres topologiques et ergodiques en étudiant l'existence de valeurs propres en particulier celles irrationnelles c'est à dire de la forme e^{2Ipa} où a est un irrationnel et I la racine carrée de l'unité. Cette question ne semble pas avoir été abordée jusqu'à présent. Dans le cadre topologique les résultats sur l'équicontinuité de K urka et Blanchard et Tisseur permettent de déduire directement que tout automate cellulaire équicontinu possède des valeurs propres topologiques rationnelles. La densité des points périodiques pour le décalage empêche l'existence de valeurs propres topologiques irrationnelles. La densité des points périodiques pour l'automate cellulaire semble être liée à la question des valeurs propres. Dans le cadre topologique, si l'automate cellulaire possède des points d'équicontinuité sans être équicontinu, la densité des points périodiques a comme conséquence le fait que le spectre représente l'ensemble des racines rationnelles de l'unité c'est à dire tous les nombres de la forme e^{2Ipa} avec a Q .Dans le cadre mesuré, la question devient plus difficile, on s'intéresse à la dynamique des automates cellulaires surjectifs pour lesquels la mesure uniforme est invariante en vertu du théorème de Hedlund. La plupart des résultats obtenus demeurent valable dans un cadre plus large. Nous commençons par montrer que les automates cellulaires ayant des points d'équicontinuité ne possèdent pas de valeurs propres mesurables irrationnelles. Ce résultat se généralise aux automates cellulaires possédant des points -équicontinu selon la définition de Gilman. Nous démontrons finalement que les automates cellulaires possédant des points -équicontinu selon la définition de Gilman possèdent des valeurs propres rationnellesWe investigate properties of one-dimensional cellular automata. This category of cellular automata has been widely studied but many questions are still open. Among them the spectral theory of unidimensional cellular automata is an open field with few indirect results. We want a better understanding of both ergodic and topological aspect by investigating the existence of eigenvalues of cellular automata, in particular irrational ones, i.e., those of the form e^{2Ipa} where a is irrationnal and I the complex root of -1. The last question seems not to have been studied yet.In the topological field the results of K urka & Blanchard and Tisseur about equicontinuous cellular automata have as direct consequence that any equicontinuous CA has rational eigenvalues. Density of shift periodic points leads to the impossibility for CA to have topological irrational eigenvalues. The density of periodic points of cellular automata seems to be related with the question of eignevalues. If the CA has equicontinuity points without being equicontinuous, the density of periodic points implies the fact that the spectrum contains all rational roots of the unity, i.e., all numbers of the form e^{2Ipa} with a Q .In the measurable field the question becomes harder. We assume that the cellular automaton is surjective, which implies that the uniform measure is invariant. Most results are still available in more general conditions. We first prove that cellular automata with equicontinuity points never have irrational measurable eigenvalues. This result is then generalized to cellular automata with -equicontinuous points according to Gilman's classification. We also prove that cellular automata with -equicontinuous points have rational eigenvaluesPARIS-EST-Université (770839901) / SudocSudocFranceF

Échantillonnage stochastique efficace par modèle Bernoulli mélange de Gaussiennes pour la résolution des problèmes inverses parcimonieux

Cette thèse aborde la résolution des problèmes inverses parcimonieux quand les données observées peuvent être considérées comme une combinaison linéaire d'un faible nombre d'éléments dits « atomes » (e.g., impulsions, réponse instrumentale décalée ou sinusoïdes). Ces problèmes sont rencontrés dans différents domaines d'application, allant du contrôle non destructif ultrasonore, à la spectroscopie et l'analyse spectrale. Dans le contexte bayésien, ces problèmes peuvent être abordés en considérant des modèles a priori sur les paramètres d'intérêts, prenant en compte la parcimonie de façon explicite via l'introduction de variables binaires (e.g., modèle Bernoulli-Gaussien). L'estimation des paramètres se fait ensuite en calculant un estimateur de type espérance a posteriori à partir d'échantillons générés par des méthodes Monte-Carlo par chaînes de Markov (MCMC). L'avantage majeur des méthodes MCMC dans le contexte bayésien, par rapport aux approches d'optimisation déterministes, est la possibilité d'intégrer sans grande difficulté l'estimation des hyper-paramètres du modèle (e.g., la variance du bruit d'observation) ainsi que de se placer dans un cadre semi-aveugle ou aveugle, c'est-à-dire des cas où les atomes sont partiellement ou totalement inconnus. Cependant, ces méthodes MCMC sont généralement très coûteuses en temps de calcul et nécessitent d'être manipulées avec soin afin de garantir leur convergence. Des approches d'échantillonnage efficace s'appuyant sur le Partially Collapsed Gibbs Sampler (PCGS) ont été développées dans le cas du modèle Bernoulli-Gaussien. Cependant, elles ne peuvent pas être utilisées dès que l'on souhaite considérer d'autres a priori parcimonieux, avec des lois à longues queues (e.g., Bernoulli-Laplace) qui sont préférables à la Gaussienne car elles induisent une moindre régularisation ; ou avec des lois à support réduit (e.g., Bernoulli-Exponentiel) afin de garantir une contrainte de non-négativité. On est alors restreint à l'utilisation des méthodes MCMC classiques coûteuses en temps de calcul. L'objectif de cette thèse est de réconcilier l'échantillonnage PCGS avec des modèles prenant en compte la parcimonie de façon explicite autres que le modèle Bernoulli-Gaussien. La principale contribution est l'introduction et l'étude d'un nouveau modèle a priori dit « Bernoulli Mélange de Gaussiennes » (BMG). Ce dernier repose sur les lois de mélange continu de Gaussiennes et permet l'amélioration des propriétés de convergence des méthodes MCMC grâce à une implémentation numérique efficace d'algorithmes PCGS. D'autre part, le modèle est présenté dans un cadre général, permettant de prendre en compte, de manière systématique, de nombreuses lois de probabilité. Pour ces travaux, nous avons exploité des lois de probabilité de la famille LSMG (Location and Scale Mixture of Gaussians), peu étudiée dans la littérature, que nous avons caractérisées plus précisément. Une deuxième contribution majeure consiste à étendre le champ d'application du modèle BMG aux lois de probabilité à support réduit. Ainsi, nous avons proposé une nouvelle approche d'approximation de lois de probabilité dénommée « asymptotically Exact Location-Scale Approximations » (ELSA) pour laquelle nous avons montré le bon comportement, à la fois en théorie et en pratique et avons montré empiriquement son efficacité par rapport aux approches de l'état de l'art. Enfin, l'efficacité du nouveau modèle BMG, de son échantillonneur PCGS et des approximations ELSA est étudiée et validée dans le cadre des problèmes inverses parcimonieux sur un exemple de déconvolution de train d'impulsions.This thesis deals with sparse inverse problems when the observed data can be considered as a linear combination of a small number of elements called « atoms » (e.g., pulses, shifted instrumental response or sinusoids). These problems are encountered in various domains, ranging from ultrasonic non-destructive testing to spectroscopy and spectral analysis. In the Bayesian framework, these problems can be addressed by considering a priori models on the parameters of interest that take into account the sparsity explicitly via the introduction of binary variables (e.g., Bernoulli-Gaussian model). The estimation of the parameters is done by computing the posterior mean estimator from samples generated by Markov chain Monte Carlo (MCMC) methods. The major advantage of MCMC methods in the Bayesian framework, compared to deterministic optimization approaches, is the possibility of integrating without much difficulty the estimation of the hyper-parameters of the model (e.g., the variance of the observation noise) as well as considering semi-blind or blind settings, i.e., cases where the atoms are partially or totally unknown. However, MCMC methods are generally computationally expensive and need to be handled carefully to ensure their convergence. An efficient sampling approaches based on the Partially Collapsed Gibbs Sampler (PCGS) have been developed for the Bernoulli-Gaussian model. However, it cannot be used with other sparse enforcing priors, such as priors with long-tailed distributions (e.g., Bernoulli-Laplace) which are preferable to the Gaussian because they induce less regularization; or with distributions supported in a bonded interval (e.g., Bernoulli-Exponential) in order to guarantee a non-negativity constraint. As a result one is restricted to the computationally expensive classical MCMC methods. The objective of this thesis is to reconcile PCGS sampling with models that explicitly take into account sparsity other than the Bernoulli-Gaussian model. The main contribution is the introduction and study of a new prior model called « Bernoulli Mixture of Gaussians » (BMG). The latter, based on continuous Gaussian mixtures improves the convergence properties of MCMC methods thanks to an efficient numerical implementation of PCGS algorithms. On the other hand, the model is presented in a general framework, allowing to take into account, in a systematic way, a rich family of probability distributions. More precisely, the BMG relies on the LSMG (Location and Scale Mixture of Gaussians) family, which we have studied and characterized. The second major contribution consists in extending the field of application of the BMG model to probability distributions supported on a bounded interval. Thus, we have proposed a new approach to approximate probability distributions called « asymptotically Exact Location-Scale Approximations » (ELSA) for which we have shown good behavior, both in theory and in practice and empirically validate its efficiency compared to state-of-the-art approaches. Finally, the efficiency of the BMG model, its PCGS sampler and ELSA approximations is studied and validated in the context of sparse inverse problems on an example of spike train deconvolution

Relation entre les modes propres des structures et les mesures de saut temporel ultrasonore

Le présent mémoire a pour objet d’étudier la relation entre les modes propres de vibration avec les mesures de saut temporel ultrasonore. La méthode de saut temporel est une technique de l’acoustique non linéaire qui s’intéresse à l’évaluation des dommages internes dans le béton notamment à un jeune âge. Elle est basée sur le décalage temporel dans le temps d’arrivée des ondes ultrasonores après que le milieu de propagation ait été soumis à une excitation mécanique par laquelle le réseau de microfissuration interne est perturbé. Son application in situ avait été testée, mais il y avait un consensus général que l’amplitude du saut temporel pouvait dépendre de la nature du mode propre excité de la structure. La méthode a donc été appliquée au laboratoire sur des poutres en béton armé (non endommagé) afin d’étudier cette influence. Les ondes de surface ont été étudiées à cause de leur sensibilité aux variations de propriétés mécaniques du béton. Les résultats obtenus montrent que les valeurs de saut temporel dépendent fortement du mode excité, les modes ayant manifesté d’une façon notable et énergétique dans le spectre de Fourrier d’accélération sont ceux ayant provoqué un décalage temporel significatif. De plus, l’excitation de deux modes par une même amplitude ne produit pas le même effet. Par ailleurs, les résultats indiquent que le choix du mode à exciter est important, car l’excitation d’un mode inapproprié ne révèle pas l’état réel du béton/de l’ouvrage ausculté. Enfin, la présente étude conclut qu’il y a une dépendance entre les modes propres des structures sur les mesures de saut temporel ; la prise en compte de telle dépendance améliore l’efficacité de la technique de saut temporel, et tout dans une configuration simple et optimale.Abstract : The purpose of this project is to study the relationship between of eigenmodes of vibration and ultrasonic time shift measurements. Indeed, the method of time shift is a technique of nonlinear acoustics which is interested in the evaluation of the internal damage in the concrete especially at early age. It is based on the time shift in the arrival time of the ultrasonic waves after the medium has subjected a mechanical excitation by which the internal microcracking network is disturbed. Its application in situ was recently experienced, but there was a consensus that the amplitude of the time shift could depend on the nature of the excited eigenmode of the structure. The method was applied in the laboratory on reinforced concrete beams (undamaged) to assess their influence. The surface waves were thus investigated in this experiment because of their sensitivity to the variation of the mechanical properties of concrete. The results show that the time shift values depend strongly on the excited mode; the modes which have manifested in a notable and energetic manner in the acceleration spectrum are tho se which have caused a significant time shift. Moreover, the excitation of two modes by the same amplitude does not produce the same effect. Also, the results indicate that the choice of the mode to be excited is important, because the excitation of an ina ppropriate mode does not reveal the actual condition of the concrete or examined structure. Finally, the present study concludes that there is dependence between the eigenmodes of the structures on the time shift measurements; the taking into account of such dependence improves the efficiency of the time shift technique, all in a simple and optimal configuration

Objets sonores : une représentation bio-inspirée, hiérarchique, parcimonieuse à très grandes dimensions utilisable en reconnaissance

L’accent est placé dans cet article sur la structure hiérarchique, l’aspect parcimonieux de la représentation de l’information sonore, la très grande dimension des caractéristiques ainsi que sur l’indépendance des caractéristiques permettant de définir les composantes des objets sonores. Les notions d’objet sonore et de représentation neuronale sont d’abord introduites, puis illustrées avec une application en analyse de signaux sonores variés : parole, musique et environnements naturels extérieurs. Finalement, un nouveau système de reconnaissance automatique de parole est proposé. Celui-ci est comparé à un système statistique conventionnel. Il montre très clairement que l’analyse par objets sonores introduit une grande polyvalence et robustesse en reconnaissance de parole. Cette intégration des connaissances en neurosciences et traitement des signaux acoustiques ouvre de nouvelles perspectives dans le domaine de la reconnaissance de signaux acoustiques.Abstract : The emphasis is put on the hierarchical structure, independence and sparseness aspects of auditory signal representations in high-dimensional spaces, so as to define the components of auditory objects. The concept of an auditory object and its neural representation is introduced. An illustrative application then follows, consisting in the analysis of various auditory signals : speech, music and natural outdoor environments. A new automatic speech recognition (ASR) system is then proposed and compared to a conventional statistical system. The proposed system clearly shows that an object-based analysis introduces a great flexibility and robustness for the task of speech recognition. The integration of knowledge from neuroscience and acoustic signal processing brings new ways of thinking to the field of classification of acoustic signals